Dilahirkan kepada sebuah keluarga sederhana di Seattle, Amerika Syarikat, kedua-dua ibu bapa Carlson menghidap penyakit batuk kering, dengan bapanya juga menghidap artritis tulang belakang, ketika beliau masih muda. Disebabkan penyakit mereka, Carlson terpaksa bekerja untuk menyara keluarganya pada masa yang awal. Ibunya meninggal dunia ketika Carlson berumur 17 tahun, dan ayahnya ketika Carlon berumur 26 tahun.

Carlson pernah berkata, "Bekerja di luar waktu sekolah merupakan satu keperluan [kepada saya] pada masa yang awal dan dengan masa yang masih ada, saya menceburkan diri dalam minat-minat saya untuk merekacipta dan membuat barang-barang, menguji kaji, dan merancang untuk masa hadapan. Saya telah membaca tentang [Thomas Alva] Edison dan pereka-pereka yang berjaya, dan idea untuk mencipta suatu rekaan menarik saya sebagai salah satu daripada beberapa cara yang sedia ada untuk mencapai perubahan status ekonomi seseorang, sementara menumpukan perhatian kepada minat saya terhadap benda-benda teknikal, serta membolehkan saya menyumbang kepada masyarakat pada masa yang sama."

Carlson memperoleh ijazah Sarjana Muda Sains dalam Fizik dari Institut Teknologi California pada tahun 1930, dan memulakan kerjayanya di Makmal Telefon Bell sebagai jurutera penyelidikan. Mendapati bahawa kerja itu amat bosan dan rutin, Carlson berpindah ke jabatan paten. Dihentikan pekerjaan semasa Zaman Meleset, akibat pengurangan tenaga kerja, beliau mendapat pekerjaan sebagai kerani kepada sebuah firma guaman paten berhampiran dengan Wall Street di Bandaraya New York. Selepas hampir setahun, beliau mendapat kerja yang lebih baik di Syarikat P. R. Mallory, sebuah syarikat elektronik. Di sana, beliau kemudian dinaikkan pangkat menjadi ketua jabatan paten. Pada tahun 1936, Carlson menyertai sekolah malam di Pusat Pengajian Undang-undang New York, dan menerima ijazah LL.B. pada tahun 1939. Latihannya dalam undang-undang paten kemudian menjadi berguna apabila usahanya dalam prinsip-prinsip elektrofotografi menunjukkan kemajuan.